神经网络的模型复杂度(时间复杂度、空间复杂度)

  • 存储量:模型所占的存储 + 一个batch的训练数据占用的存储。类似空间复杂度
  • 计算量: 计算量的单位是flop,也就是一个乘法和加法,例如计算两个n维向量的内积一共就需要n个flops。类似时间复杂度

所以通过这两个维度就可以大致估计模型训练所耗费的资源了。

常见模型的计算量

https://juejin.im/post/5ae283c4f265da0b886d2323

算力

GPU的算力

挖矿算力

扩展阅读

-